Yamamoto memasuki Akademi Tentera laut di Etajima, Hiroshima pada 1901, tamat belajar pada tahun 1904. Pada tahun 1905 semasa Perang Russia-Jepun, dia turut terbabit sebagai ensign di atas penjajap Nisshin di Pertempuran Tsushima melawan Angkatan Baltik Russia. Dalam pertempuran itu, dia kehilangan dua jari pada tangan kirinya (lihat gambar sebelah kanan). Selepas perang, dia menyertai beberapa kapal berlayar diseluruh lautan Pasifik.

Pada tahun 1913, dia menyertai Kolej Staff Tentera laut (Naval Staff College) di Tsukiji, tanda-tanda bahawa dia sedang dilatih bagi pucuk pimpinan (high command). Selepas tamat pada 1916, dia dilantik sebagai kakitangan Skuarden Tempur Kedua (Second Battle Squadron) dan diambil sebagai ahli keluarga Yamamoto. Semenjak 1919 hingga 1921, dia belajar di Universiti Harvard.

Dilantik sebagai Komander sekembalinya ke Jepun, dia mengajar di Kolej Staff sebelum dihantar ke Pusat Latihan Udara baru di Kasumigaura pada 1924, untuk mengarahnya dan belajar terbang.